Deepfake видеоклипове, представящи се за истински лекари, натискат фалшиви медицински съвети и лечения

dr. Джоел Бервел, доктор, прочут на стотиците си хиляди почитатели в обществените медии като „ медицински митбастър “, е построил известност за развенчаването на подправени здравни искания онлайн. 

По -рано тази година някои от тези почитатели го предизвестиха за видео на различен акаунт, включващ мъж, който изглеждаше тъкмо като него. Лицето беше негово. Гласът не беше.

" Просто се почувствах най -вече изплашен ", сподели Бервел пред CBS News. " Приличаше на мен. Не ми звучеше като мен... само че промотираше артикул, който в никакъв случай не съм промотирал в предишното, с глас, който не беше мой. "  ; The video with Bervell's likeness appeared on multiple platforms – TikTok, Instagram, Фейсбук and YouTube, he said.

A CBS News investigation over the past month found dozens of accounts and more than 100 videos across social media sites in which fictitious doctors, some using the identities of real physicians, gave advice or tried to sell products, primarily related to beauty, wellness and weight loss. Повечето от тях бяха открити в Tiktok и Instagram, а някои от тях бяха гледани милиони пъти.

Повечето видеоклипове, прегледани от CBS News, се опитваха да продават артикули, или посредством самостоятелни уеб страници, или добре известни онлайн пазари. Те постоянно отправяха смели искания. Един видеоклип популяризира артикул „ 96% по -ефективен от Ozempic “. 

Компанията за киберсигурност ESET също неотдавна изследва този тип наличие. Той видя повече от 20 акаунта на Tiktok и Instagram, употребявайки генерирани от AI лекари за натискане на артикули, съгласно Мартина Лопес, откривател по сигурността в ESET.



" Независимо дали се дължи на някои видеоклипове, които ще станат вирусни или сметки, получават повече почитатели, този вид наличие доближава до все по -широка публика ", сподели тя.

CBS News се свързва с Tiktok и Meta, компанията майка на Instagram, с цел да получи изясненост по отношение на техните полици. И двете компании отстраниха видеоклипове, маркирани от CBS News, казвайки, че са нарушили политиките на платформата. CBS News също се обърна към YouTube, който съобщи, че процесът на поръчка за дискретност " разрешава на потребителите да изискат премахването на генерирано от AI наличие, което реалистично ги симулира без тяхното позволение. "

YouTube съобщи, че видеоклиповете, предоставени от CBS News, не нарушават насоките му на общността и ще останат в платформата. „ Нашите политики не разрешават наличието, което съставлява сериозен риск от възмутителна щета посредством разпространяване на здравна дезинформация, която опонира на управлението на локалния здравен орган (LHA) по отношение на характерните здравословни положения и субстанции “, сподели YouTube.

Tiktok споделя, че сред януари и март, тя интензивно отстранява повече от 94% от наличието, което е нарушило политиката си във връзка с наличието. 

След като CBS News се свърза с META, компанията съобщи, че отстранява видеоклипове, които нарушават стандартите му за реклама и ограничиха други видеоклипове, които нарушават нейните политики за здраве и уелнес, което ги прави налични единствено за тези на 18 и повече години.

Meta също сподели, че неприятните артисти непрекъснато развиват тактиката си, с цел да се опитат да избегнат използването. 

измамниците употребяват елементарно налични AI принадлежности, с цел да подобрят доста качеството на тяхното наличие, а гледането на видеоклипове на дребни устройства затруднява откриването на образни несъответствия, основният евангелист на ESET, Tony Anscombe, сподели.

ESET сподели, че има някои червени флагове, които могат да оказват помощ на някой да открие излаз. към лицето на човек. Отвъд образните изображения, глас, който звучи роботизирано или липсва естествена човешка страст, е вероятен индикатор за AI.

Накрая феновете би трябвало да бъдат скептични към самото обръщение и да слагат под въпрос искания като " чудотворни леки " или " обезпечени резултати ", които са общи тактики в цифровите измами, сподели Анскомб. 

" Доверете се на нищо, проверете всичко ", сподели Anscombe. " Така че, в случай че видите нещо и твърди, че, знаете ли, има това чудотворно лекуване и това чудово лекуване идва от X, отидете и проверете X Out... и го направете без значение. Загрижените видеоклипове като тези ще подкопаят публичното доверие в медицината. 

" Когато имаме художествена литература там, имаме какво се счита, че са специалисти в поле, казващи нещо, което може да не е правилно ", сподели той. " Това изкривява това, което е реалност, и затруднява обществеността да повярва на всичко, което излиза от науката, от доктор, от системата на опазването на здравето като цяло. "